ZU-23-2 đi vào hoạt động trong Quân đội Xô Viết vào năm 1960. ZU-23-2 thường đặt lắp đặt trên xe tải với cả hai vai trò phòng không và phòng thủ mặt đất. Nó có thể lắp được trên xe bọc thép MT-LB và các xe bọc thép đa dụng khác. Đặc biệt là phiên bản giá ba chân lắp trên xe BTR-D thả dù. Rẻ, dễ sử dụng, dễ bảo trì giúp ZU-23-2 vẫn còn hoạt động trong Lực lượng Vũ trang Liên bang Nga và hơn 20 quân đội khác trên thế giới.

Từ năm 1965, Liên Xô bắt đầu viện trợ với số lượng lớn pháo ZU-23-2 cho Việt Nam Dân chủ Cộng hòa.[9] Pháo 23 mm và pháo 37 mm 61-K 37 mm đã trở thành xương sống của lực lượng phòng không tầm thấp và cận trung của Quân đội Nhân dân Việt Nam trong Chiến tranh Việt Nam. Được cho là nguyên nhân gây nên 83% tổn thất cho Không quân Hoa Kỳ bởi lực lượng phòng không, ZU-23 đã bắn rơi gần 100 máy bay và trực thăng của Mỹ ở Việt Nam, đặc biệt là trên tuyến đường mòn Trường Sơn.[10][11].

Trong Chiến tranh Afghanistan (1978–1992), ZU-23 được Quân đội Xô Viết dùng để phòng không và cả phòng thủ mặt đất ở nơi đóng quân. Trong Chiến tranh Afghanistan (2001–14), lực lượng nổi dậy bao gồm Taliban và những đồng minh phía bắc sử dụng ZU-23-2, SA-7 và FIM-92 Stinger, làm vũ khí phòng không chính của mình.

Trong những năm 1983, ZU-23M được các sử dụng bởi các lực lượng nổi dậy như Hezbollah ở Liban nhằm chống lại Thủy quân Lục chiến Hoa Kỳ và liên quân gìn giữ hòa bình ở Li băng. Vào thời điểm đó, phát ngôn viên của lực lượng Thủy quân Lục chiến Hoa Kỳ cho rằng việc sử dụng pháo 23 mm hạ nòng tấn công bộ binh là vi phạm các hiệp ước quốc tế về chiến tranh. Tuy nhiên vào năm 1988, thiếu tá Thủy quân Lục chiến Hoa Kỳ. W. Hays Parks đã phủ nhận cho rằng những lý lẽ này là vô căn cứ.[12]

ZU-23-2 được sử dụng rộng rãi ở cả hai phe trong Nội chiến Libya (2011) và hay thường thấy trên các xe bán tải.[13] Loại vũ khí này cũng được cả hai bên sử dụng trong Nội chiến Syria. Một vài clip Youtube đã cho thấy trực thăng của quân chính phủ Syria (SAA) bị lực lượng đối lập dùng ZU-23 trên xe bán tải bắn rơi.